ollama工具的出现让大语言模型的部署变得格外的轻松,但是在windows系统部署之后发现无法使用GPU进行加速,通过多方面查找资料发现可以在docker中使用命令启用GPU加速。另外通过Docker也可以快速...
浏览 73 次 标签: 一文教你在windows上实现ollama+open webui、外网访问本地模型、ollama使用GPU加速